Ein Projekt von:

Institut für Internet-Sicherheit - if(is)

Menschen wollen vertrauen können – auch in der digitalen Welt!

Dieses Bedürfnis haben wir – das Institut für Internet-Sicherheit – erkannt: Wir stellen zukünftig eine Vertrauenswürdigkeit-Plattform zur Verfügung, um den Herstellerunternehmen die Möglichkeit zu bieten, ihren Kunden umfassend alle relevanten Informationen zur Verfügung zu stellen und ihnen darüber zu zeigen, dass alles getan wird, um Schaden von ihnen abzuwenden. So ist es Kunden möglich mit weniger Aufwand Vertrauen aufbauen, weil sie eine informierte Entscheidung treffen können. Vertrauenswürdigkeit und Vertrauen – Hand in Hand – schaffen die Basis für eine gute digitale Zukunft.

Hier geht es um Vertrauen! - It's all about Trust!

Ergebnisse der Anwender-Studie TrustKI

Unsere Studie zeigt, was aus Sicht von Anwenderunternehmen relevant ist, damit sie einem KI-Anbieter vertrauen können.
Allerdings: Der Aufbau eines validen Vertrauensverhältnisses wird nur funktionieren, wenn Anwenderunternehmen und KI-Anbieter diesbezüglich einen Konsens finden, der für beide Seiten vertretbar ist.

Beachtenswerte Ergebnisse, was Anwendern wichtig ist:
  • Die befragten Anwenderunternehmen erwarten von KI-Anbietern ein wahrhaftiges Commitment. Nach Ansicht der Teilnehmer hilft eine prägnante und transparente Kernbotschaft, damit KI-Anbieter ihre Vertrauenswürdigkeit glaubwürdig darstellen und nachhaltig manifestieren können.
  • Gleichzeitig müssen die KI-Anbieter ihrer (ethischen) Sorgfaltspflicht nachkommen und im Sinne der Anwender wohlwollend agieren. Dies lässt sich nach Ansicht der Teilnehmer in unterschiedlichen Dimensionen nachweisen. Hierzu gehört beispielsweise, die Durchführung einer Folgenabschätzung dahingehend, ob und in welchem Maße Probleme bei der Nutzung der KI-Lösung auftreten können.
  • Ein durchgängig relevanter Aspekt ist aus Sicht der befragten Anwenderunternehmen die IT-Sicherheit. Die aktuellen Herausforderungen im Rahmen der Nutzung von KI erfordern unter anderem, dass IT-Sicherheit ein integraler Bestandteil der Unternehmenskultur ist.
Hier finden Sie die ausführlichen Studienergebnisse sowie den Forschungsbericht.

Podcasts

Regulierung von KI in Europa Erhalten Sie Einblicke in die jüngsten Entwicklungen der KI-Regulierung in der EU! In einem Interview diskutieren Ulla Coester, Projektleiterin des Forschungsprojektes TrustKI, und Fritz-Ulli Pieper, Rechtsanwalt und Fachanwalt für Informationstechnologie bei TaylorWessing, über die bevorstehende finale Abstimmung im Europäischen Parlament und die Auswirkungen auf Unternehmen, Start-ups und den internationalen Wettbewerb. Erfahren Sie mehr über die Herausforderungen, Chancen und ethischen Aspekte dieser Regulierung. Bleiben Sie informiert und seien Sie dabei.

Projekt TrustKI konzentriert sich auf die Entwicklung einer Plattform zur Bewertung der Vertrauenswürdigkeit von künstlicher Intelligenz. Die zunehmende Komplexität dieser Technologie erschwert es den Anwendern, sie zu verstehen und zu bewerten. Eine Umfrage unter Anwendern ergab, dass Vertrauen und Vertrauenswürdigkeit eng miteinander verbunden sind, wobei Kriterien wie Kompetenz, Integrität und wohlwollendes Verhalten eine Rolle spielen. Ethik ist ein weiterer wichtiger Aspekt, der berücksichtigt werden muss, wobei die Einhaltung moralischer und gesellschaftlicher Werte bei der Entwicklung von KI-Lösungen von Bedeutung ist. Holistische Transparenz, einschließlich der Transparenz der Handlungsweise der KI-Anbieter, ist ebenfalls entscheidend. Der nächste Schritt des Projekts umfasst den Austausch

Thema „Künstliche Intelligenz“ entwickelt sich täglich weiter. In vielen Bereichen wird KI täglich eingesetzt. Dabei sind die Auswirkungen auf die Gesellschaft sowie die Wirtschaft vergleichbar mit der industriellen Revolution. Beim täglichen Einsatz von KI spielt Vertrauen eine zentrale Rolle. Es gibt viel Klärungsbedarf und viele Menschen haben Zukunftsängste. Wann können wir Anbietern von Lösungen vertrauen, die auf künstlicher Intelligenz basieren? Mit dieser Frage beschäftigt sich das Forschungsprojekt TrustKI” an der Westfälischen Hochschule in Gelsenkirchen. Ein Gespräch über Vertrauen in der digitalen Welt mit Projektleiterin Ulla Coester und Professor Norbert Pohlmann vom Institut für Internet-Sicherheit.

Zielsetzung des Projekts

Das Projekt TrustKI

Ziel des Vorhabens ist es, eine umfassende Vertrauenswürdigkeits-Plattform zu etablieren, die alle notwendigen Aspekte berücksichtigt sowie die gebotenen Erfordernisse erfüllt, damit Anwenderunternehmen Vertrauen in Herstellerunternehmen sowie in deren KI-Lösungen oder Datenräume aufbauen können.
Vertrauenswürdigkeit schafft vertrauen

Die Vertrauenswürdigkeits-Plattform

Nutzer wollen Vertrauen können – in Herstellerunternehmen, deren IT-Lösungen und letztendlich insgesamt in die jeweilige Branche. Dann sind sie auch dazu bereit die angebotenen IT-Lösungen zu nutzen. Mit der Vertrauenswürdigkeits-Plattform bieten wir eine Möglichkeit zum Aufbau eines nachhaltigen Vertrauensverhältnisses.

Vertrauenswürdigkeit schafft vertrauen

Das Vertrauenswürdigkeits-Modell

Mit dem Vertrauenswürdigkeitsmodell lässt sich zum einen der Zusammenhang zwischen Vertrauen und Vertrauenswürdigkeit erklären. Zum anderen macht es transparent, was Herstellerunternehmen tun müssen, damit auf Basis der grundsätzlichen Vertrauensfähigkeit eines Nutzers sein institutionelles Vertrauen mithilfe bestimmter Kriterien der wahrgenommenen Vertrauenswürdigkeit sowohl der IT-Lösung, des Unternehmens und der Domäne gestärkt werden kann.

Die konkrete Aufgabe, die anhand des Vertrauenswürdigkeitsmodells bearbeitet werden kann (und soll), ist somit, die richtigen Maßnahmen zu ergreifen, um das Vertrauen eines Nutzers zu gewinnen. Hierbei spielt die wahrgenommene Vertrauenswürdigkeit eine entscheidende Rolle.